Các di cốt hoá thạch của Homo erectus, hay còn gọi là "người vượn Java", có niên đại 1,7 triệu năm được tìm thấy dọc theo bờ sông Bengawan Solo.[9] Các vương quốc Taruma và Sunda tại miền tây Java lần lượt xuất hiện vào thế kỷ 4 và 7, còn Vương quốc Kalingga phái sứ giả sang Trung Quốc từ năm 640.[10]:53,79 Tuy nhiên, quốc gia quân chủ lớn đầu tiên là Vương quốc Medang, được thành lập tại miền trung Java vào đầu thế kỷ 8. Tôn giáo của Medang có trọng tâm là vị thần Shiva của Ấn Độ giáo, và vương quốc này cho xây dựng một số đền thờ Ấn Độ giáo thuộc hàng sớm nhất tại Java trên cao nguyên Dieng. Khoảng thế kỷ 8, Vương triều Sailendra nổi lên tại đồng bằng Kedu và bảo trợ cho Phật giáo Đại thừa. Vương quốc cổ đại này cho xây dựng các công trình lớn như Borobudur và Prambanan tại miền trung Java.

Khoảng thế kỷ 10, trung tâm quyền lực chuyển từ miền trung đến miền đông Java. Các vương quốc Kediri, Singhasari và Majapahit tại khu vực này chủ yếu dựa vào trồng lúa, song cũng tiến hành mậu dịch trong quần đảo Indonesia, với Trung Quốc và Ấn Độ. Majapahit do Wijaya thành lập[10]:201 và người cai trị cuối cùng là Hayam Wuruk (cai trị 1350–89), vương quốc này yêu sách chủ quyền đối với toàn bộ quần đảo Indonesia, song phạm vi kiểm soát có vẻ như chỉ giới hạn tại Java, Bali và Madura. Tể tướng của Hayam Wuruk là Gajah Mada lãnh đạo nhiều cuộc chinh phục lãnh thổ của vương quốc này.[10]:234 Các vương quốc trước đó tại Java có cơ sở là nông nghiệp, song Majapahit nắm quyền kiểm soát các bến cảng và tuyến hàng hải, trở thành đế quốc thương nghiệp đầu tiên của Java. Đến khi Hayam Wuruk qua đời và Hồi giáo truyền bá đến Indonesia thì Majapahit bước vào suy thoái.[10]:241

Hồi giáo trở thành tôn giáo chi phối tại Java vào cuối thế kỷ 16. Trong giai đoạn này, các vương quốc Hồi giáo như Demak, Cirebon và Banten chiếm ưu thế. Vương quốc Mataram trở thành cường quóc chi phối tại miền trung và miền đông Java vào cuối thế kỷ 16. Các vương quốc Surabaya và Cirebon cuối cùng bị khuất phục, do đó chỉ còn Mataram và Banten đương đầu với người Hà Lan vào thế kỷ 17.

Java tiếp xúc với các cường quốc thực dân châu Âu từ năm 1522 khi có một hiệp định giữa Vương quốc Sunda va người Bồ Đào Nha tại Malacca. Sau thất bại, người Bồ Đào Nha chỉ hiện diện tại Malacca và các quần đảo phía đông. Năm 1596, một đoàn viễn chinh gồm bốn tàu dưới quyền Cornelis de Houtman là lần tiếp xúc đầu tiên giữa Hà Lan và Indonesia.[11] Đến cuối thế kỷ 18, Hà Lan đã bành trướng ảnh hưởng của mình đến các vương quốc tại nội lục thông qua Công ty Đông Ấn Hà Lan tại Indonesia. Xung đột nội bộ cản trở người Java hình thành liên minh hiệu quả để chống lại Hà Lan. Tàn dư của Mataram tồn tại với vị thế là các thân vương quốc Surakarta (Solo) và Yogyakarta. Các quốc vương người Java vẫn cai trị, và được người Hà Lan giúp duy trì tàn dư của tầng lớp quý tộc Java bằng việc xác nhận họ là quan chức địa phương trong chính quyền thực dân.

Vai trò lớn của Java trong giai đoạn đầu của thời thuộc địa là nơi sản xuất lúa gạo. Tại các đảo sản xuất gia vị như Banda, gạo được nhập khẩu đều đặn từ Java nhằm đáp ứng sự thiếu hụt thực phẩm.[12] Trong giai đoạn Các cuộc chiến tranh của Napoléon tại châu Âu, Hà Lan thất thủ trước Pháp, số phận của Đông Ấn Hà Lan cũng tương tự. Dưới chính quyền Daendels ngắn ngủi, với tư cách được Pháp uỷ nhiệm, việc xây dựng đường bưu chính lớn Java được bắt đầu vào năm 1808. Đường này kéo dài từ Anyer tại miền tây Java đến Panarukan tại miền đông Java, có vai trò là một tuyến tiếp tế quân sự và được sử dụng để phòng thủ Java trước nguy cơ bị Anh xâm lăng.[13] Năm 1811, Java bị Anh chiếm lĩnh, trở thành một thuộc địa của Đế quốc Anh, và Stamford Raffles được bổ nhiệm làm thống đốc của đảo. Năm 1814, Java được trao lại cho Hà Lan theo các điều khoản của Hiệp định Paris.[14]

Năm 1815, có thể có khoảng 5 triệu người tại Java.[15] Trong nửa sau của thế kỷ 18, tình trạng dân số tăng nhanh bắt đầu tại các huyện dọc theo bờ biển phía bắc miền trung Java, và sang thế kỷ 19 thì dân số tăng nhanh trên khắp đảo. Các yếu tố khiến dân số tăng mạnh bao gồm ảnh hưởng từ chế độ cai trị thực dân của Hà Lan, như kết thúc nội chiến tại Java, gia tăng diện tích canh tác lúa, và việc du nhập các cây lương thực như sắn và ngô khiến có thể cung ứng đủ lương thực cho cư dân.[16] Những yếu tố khác là thuế cao và gia tăng công việc theo hệ thống trồng trọt, khiến các cặp cha mẹ sinh nhiều con hơn với hy vọng tăng khả năng nộp thuế và mua hàng hoá của gia đình.[17] Bệnh tả được cho là đã khiến 100.000 người thiệt mạng tại Java vào năm 1820.[18]

Chủ nghĩa dân tộc Indonesia ban đầu có cơ sở tại Java vào đầu thế kỷ 20, và cuộc đấu tranh nhằm đảm bảo độc lập của quốc gia sau Chiến tranh thế giới thứ hai cũng có trung tâm tại Java. Năm 1949, Indonesia được độc lập, và đảo trở thành địa phương chi phối về sinh hoạt xã hội, chính trị và kinh tế của toàn quốc, song điều này cũng khiến nhiều cư dân tại các đảo khác phật ý.